AI定义与常见类型

• 通用定义：设计用于执行通常需要人类智能完成的任务的机器统称
• 机器学习：可在数据集内学习规律并推广至新数据完成预测分类，无需人类明确指令
• 深度学习：采用深度神经网络模拟人类神经元交互，可迭代处理文本、图像、音频等多类型数据
• 对话式AI：基于自然语言处理技术，可让聊天机器人、虚拟助手等设备以类人方式同步回应用户输入
• 环境智能AI：可监测环境输入自动提供协助，能捕获人际自然对话并转换为结构化文本，即“数字抄写员”
• 生成式AI：基于大语言模型训练，可根据用户提示生成文本、图像、视频、代码等新内容

AI临床应用的价值与风险

核心价值

• 提升行政效率，自动完成文书等事务性工作，让医务人员有更多时间投入教学、临床交互
• 辅助临床决策，在放射、病理等影像相关学科的应用价值已逐步落地
• 助力患者自我管理，可推动实现个性化学习型医疗体系，改善患者体验、人群健康水平、医务人员满意度，提升医疗效率并促进健康公平

相关风险

• 技术层面：存在算法偏见、幻觉、数据泄露、隐私泄露、环境能耗过高问题
• 临床层面：可引发自动化偏见、临床技能退化、过度诊疗，存在法律责任界定模糊、患者信任度下降问题
• 系统层面：无法解决现有医疗体系固有的结构和资金限制问题，可能加剧医疗资源分配不公平

AI临床应用核心原则

AI落地实施原则

• 符合医学伦理：满足行善（以患者最佳利益为核心）、不伤害、自主（尊重患者知情决策权利）、公正（保障所有患者公平透明获得AI相关医疗服务）四大核心伦理要求
• 以用户为核心的设计与治理：医务人员作为终端用户需参与AI开发全流程，联合开发者、技术人员、患者等多主体协作，确保工具匹配临床需求、可无缝融入临床工作流
• 保障数据隐私安全：需采取合理措施保护患者与医务人员数据隐私，严格限制数据访问权限，原住民人群数据使用需符合其主导的数据主权政策
• 价值导向落地：AI应用需保证医疗质量不下降，同时成本持平或更低，需结合患者获益评估工具的成本效益

临床使用交互原则

• 医务人员为核心：AI仅用于辅助临床决策，不能替代医务人员判断，医务人员需对AI输出内容进行审核验证
• 配套教育与能力建设：需在培训、继续教育全阶段提供AI安全使用相关教育，明确各级培训责任划分，医务人员需掌握AI相关任务的核心技能，不能因使用AI弱化必备临床能力
• 保持临床自主性避免过度依赖：医务人员需先独立完成临床问题初步判断，再使用AI校准推理过程，避免认知技能退化，需警惕AI引发的过度诊疗问题

落地障碍与应对策略

实施阶段障碍与应对

• 模型不准确/有偏：需保证训练数据代表性并公开数据来源，开展偏见与公平性分析并制定缓解方案，对医务人员进行高质量电子病历数据重要性教育
• 缺乏领导层支持与专业能力：需招募临床与管理层面AI支持者，将AI规划与机构目标对齐并广泛传达，配置AI培训资源，设置AI专项临床岗位
• 一线医务人员接受度低：优先推进医务人员主导、匹配本地需求的AI工具，公开AI相关说明文件，明确AI仅为辅助工具，支持医务人员反馈工具问题，提供持续AI培训
• 数据泄露与系统故障风险：完善备份与网络安全系统，优先使用加密、境内医疗系统管控的数据存储方案，采用多因素身份验证限制AI访问权限
• 环境能耗问题：采购阶段评估AI环境影响，将AI开发使用纳入机构可持续发展政策，在碳排放报告中统计AI相关能耗，优先选择低能耗AI模型

使用阶段障碍与应对

• 患者/公众对AI存在顾虑：需向患者提供易懂的AI工具与数据使用说明，采集患者数据时获得知情同意，患者拒绝AI辅助时在可行情况下提供同等质量的非AI诊疗选项，主动纠正AI相关错误信息
• 法律责任风险：明确各相关方责任划分，必要时审核合同并寻求法律建议，仅使用监管部门批准、符合隐私规范的AI工具辅助临床决策
• 与临床工作流融合差：联合变革管理团队梳理工作流调整方案，优先选择可减少行政负担、无需过多手动输入数据的AI工具
• 患者伤害风险：采用人在环验证机制降低风险，优先选择可解释性AI模型，建立安全问题反馈渠道，部署后持续监测工具安全性与性能，设置故障预案并培训医务人员避免误用